Abel Xavier khởi nghiệp với câu lạc bộ Estrela Amadora Bồ Đào Nha năm 1990 trước khi chuyến đến Benfica 3 năm sau đó. Anh lần lượt trải qua một thời gian ngắn ở Ý và Tây Ban Nha với các câu lạc bộ Bari và Real Oviedo trước khi được Bobby Robson mang về PSV Eindhoven năm 1998.

Tháng 9 năm 1999 huấn luyện viên Walter Smith của Everton mang anh về Goodison Park với giá £ 1,5 triệu bảng. Nhưng sau đó Liverpool đã mua Abel Xavier từ Everton vào ngày 31 tháng 12 năm 2002 với phí chuyển nhượng £800,000. Xavier trở thành cầu thủ thứ 2 gia nhập Liverpool từ Everton sau Dave Hickson năm 1959.

Xavier đã tham gia giúp Liverpool củng cố tuyến phòng ngự, anh có thể chơi hậu vệ phải hoặc trung vệ. Dù vậy trong thời gian thi đấu tại Anfield anh không để lại nhiều ấn tượng. và là sự lựa chọn sau Jamie Carragher. Tháng 12 năm 2002 anh chuyển sang Galatasary theo 1 hợp đồng cho mượn trước khi câu lạc bộ giải phóng hợp đồng để anh tìm đội bóng mới. Abel Xavier chính thức rời Liverpool vào tháng 12 năm 2003 sau khi hợp đồng giữa anh và câu lạc bộ hết hạn.